Năm 1897, chính quyền thuộc địa Pháp quyết định mở một cuộc điều tra về người dân tộc thiểu số miền núi vùng cao. Những đoàn điều tra đầu tiên đến Lào Cai vào năm 1898.

Mùa đông năm 1903, trong khi tiến hành đo đạc xây dựng bản đồ, đoàn thám hiểm của Sở địa lý Đông Dương đã khám phá ra cảnh quan mặt bằng Lồ Suối Tủng và làng Sa Pả. Sự kiện này đánh dấu việc ra đời của thị trấn Sa Pa.

Năm 1905, người Pháp đã thu thập được những thông tin đầu tiên về địa lý, khí hậu, thảm thực vật... Sa Pa bắt đầu được biết tới với không khí mát mẻ, trong lành và cảnh quan đẹp. Năm 1909, một khu điều dưỡng được xây dựng. Năm 1917, một văn phòng du lịch được thành lập ở Sa Pa và một năm sau, người Pháp bắt đầu xây dựng những biệt thự đầu tiên. Năm 1920, tuyến đường sắt Hà Nội - Lào Cai hoàn thành, Sa Pa được xem như thủ đô mùa hè của Bắc Kỳ. Tổng cộng, người Pháp đã xây dựng ở Sa Pa gần 300 biệt thự.

Sa Pa bị tàn phá nhiều theo chủ trương tiêu thổ kháng chiến năm 1947 và trong chiến tranh biên giới Việt - Trung 1979.[7] Hàng ngàn ha rừng thông bao phủ thị trấn bị đốt sạch, nhiều toà biệt thự cổ do Pháp xây cũng bị phá huỷ. Vào thập niên 1990, Sa Pa được xây dựng, tái thiết trở lại. Nhiều khách sạn, biệt thự mới được xây dựng. Từ 40 phòng nghỉ vào năm 1990, lên tới 300 vào năm 1995. Năm 2003, thị trấn Sa Pa có khoảng 60 khách sạn lớn nhỏ với 1.500 phòng. Lượng khách du lịch tới thị trấn tăng lên từ 2.000 khách vào năm 1991 đến 60.000 khách vào 2002.

Ngày 27 tháng 12 năm 1975, ba tỉnh Lào Cai, Yên Bái và Nghĩa Lộ (trừ 2 huyện Bắc Yên và Phù Yên nhập vào tỉnh Sơn La) hợp nhất thành tỉnh Hoàng Liên Sơn, huyện Sa Pa thuộc tỉnh Hoàng Liên Sơn.

Ngày 12 tháng 8 năm 1991, tái lập tỉnh Lào Cai từ tỉnh Hoàng Liên Sơn cũ, huyện Sa Pa trở lại thuộc tỉnh Lào Cai, gồm 1 thị trấn Sa Pa và 17 xã: Bản Hồ, Bản Khoang, Bản Phùng, Hầu Thào, Lao Chải, Nậm Cang, Nậm Sài, Sa Pả, San Sả Hồ, Sử Pán, Suối Thầu, Tả Giàng Phình, Tả Phìn, Tả Van, Thanh Kim, Thanh Phú, Trung Chải.

Ngày 16 tháng 8 năm 2012, thị trấn Sa Pa được công nhận là đô thị loại IV[2].

Ngày 11 tháng 9 năm 2019, Ủy ban Thường vụ Quốc hội thông qua Nghị quyết 767/NQ-UBTVQH14 về việc thành lập thị xã Sa Pa và các phường, xã thuộc thị xã Sa Pa[1]. Theo đó:

• Thành lập thị xã Sa Pa trên cơ sở toàn bộ diện tích và dân số của huyện Sa Pa.
• Thành lập 6 phường: Cầu Mây, Hàm Rồng, Ô Quý Hồ, Phan Si Păng, Sa Pa, Sa Pả trên cơ sở giải thể thị trấn Sa Pa và điều chỉnh một phần diện tích, dân số của các xã: Lao Chải, Sa Pả, San Sả Hồ.
• Hợp nhất phần diện tích và dân số còn lại của hai xã Lao Chải và San Sả Hồ thành xã Hoàng Liên.
• Hợp nhất hai xã Nậm Sài và Nậm Cang thành xã Liên Minh.
• Hợp nhất hai xã Thanh Phú và Suối Thầu thành xã Mường Bo.
• Hợp nhất hai xã Hầu Thào và Sử Pán thành xã Mường Hoa.
• Hợp nhất hai xã Bản Khoang và Tả Giàng Phìn thành xã Ngũ Chỉ Sơn.
• Hợp nhất hai xã Thanh Kim và Bản Phùng thành xã Thanh Bình.
• Sáp nhập phần diện tích và dân số còn lại của xã Sa Pả vào xã Trung Chải.

Sau khi sắp xếp, sáp nhập và điều chỉnh địa giới các đơn vị hành chính, thị xã Sa Pa có 6 phường và 10 xã như hiện nay.